퀄컴 온디바이스 인공지능 생태계

퀄컴 온디바이스 인공지능 생태계

1. 요약

퀄컴은 모바일 중심의 부품 공급업체에서 진정한 플랫폼 제공업체로 성공적으로 전환했으며, 전력 효율적인 이기종 컴퓨팅(heterogeneous computing)에 대한 전문성을 활용하여 포괄적인 온디바이스 인공지능(AI) 생태계를 구축했다. 본 보고서는 퀄컴의 전략, 기술적 우위, 그리고 온디바이스 AI 생태계가 직면한 과제에 대한 심층 분석을 제공한다. 퀄컴 전략의 핵심에는 다양한 하드웨어 포트폴리오를 연결하는 ‘결합 조직’ 역할을 하는 통합된 ’퀄컴 AI 스택(Qualcomm AI Stack)’이 있으며, 이는 ‘한 번 작성하면 어디서든 실행(write-once-run-anywhere)’ 가능한 가치 제안을 가능하게 한다. 퀄컴의 AI 역량은 모바일, PC, 자동차, 확장 현실(XR) 등 핵심 시장 전반에 걸쳐 전개되고 있으며, 각 분야에서 특화된 하드웨어와 소프트웨어 솔루션을 통해 시장 지배력을 강화하고 있다. 그러나 애플(Apple)과 같은 수직 통합 기업 및 엔비디아(Nvidia)와 같은 전문화된 거대 기업과의 경쟁이 심화되고 있으며, 개발자 도구의 복잡성 증가는 퀄컴이 해결해야 할 주요 과제로 남아있다. 본 분석은 퀄컴이 온디바이스 AI 시대의 중심 플레이어로 자리매김하기 위한 기술적 기반, 시장 적용 사례, 그리고 미래 전략 방향을 종합적으로 평가한다.

2. 부: 온디바이스 인텔리전스의 아키텍처 기반

퀄컴의 전체 AI 전략을 뒷받침하는 기술적 기반은 단순히 강력한 신경망 처리 장치(NPU)에 국한되지 않는다. 이는 하드웨어 설계와 소프트웨어 추상화에 대한 전체론적이고 시스템 수준의 접근 방식에서 비롯된 경쟁 우위이다. 이 접근법은 퀄컴이 모바일 시장을 넘어 PC, 자동차, XR 등 다양한 분야로 영향력을 확장할 수 있게 하는 핵심 동력이다.

2.1 퀄컴 AI 엔진: 이기종 컴퓨팅 강자

퀄컴 AI 엔진(Qualcomm AI Engine)은 다양한 처리 장치를 단순한 병치가 아닌, 최대의 전력 효율로 다양한 AI 워크로드를 처리하기 위해 심층적으로 통합한 퀄컴의 “하이브리드 AI(Hybrid AI)” 철학이 물리적으로 구현된 결과물이다.1 이 아키텍처는 각 프로세서가 가장 잘하는 작업에 집중하도록 하여 시스템 전체의 성능과 효율을 최적화한다.

2.1.1 이기종 구성 요소 및 역할

퀄컴 AI 엔진은 여러 특화된 프로세서 코어의 집합체로, 각 코어는 특정 유형의 연산에 최적화되어 있다.3

  • 퀄컴 헥사곤 NPU/프로세서 (Qualcomm Hexagon NPU/Processor): AI 엔진의 심장부로서, 지속적이고 저전력의 AI 추론을 위해 맞춤 설계되었다. 대부분의 신경망 계층을 구성하는 스칼라(scalar), 벡터(vector), 텐서(tensor) 연산을 효율적으로 처리하도록 설계되었다.2 헥사곤은 단순한 디지털 신호 처리 장치(DSP)에서 텐서 가속기(HTA, Hexagon Tensor Accelerator)와 벡터 확장(HVX, Hexagon Vector eXtensions)을 갖춘 진정한 NPU로 진화했다.4

  • 퀄컴 아드레노 GPU (Qualcomm Adreno GPU): 중간 수준의 전력과 성능을 요구하는 AI 워크로드, 특히 병렬 데이터 스트리밍 및 부동 소수점 연산에 적합하다. 또한 모델의 전처리 및 후처리 작업에도 활용될 수 있다.2 스냅드래곤 888에 탑재된 아드레노 680 GPU가 AI 성능을 43% 향상시킨 것처럼, 최신 세대에서는 AI에서의 역할이 점차 커지고 있다.7

  • 퀄컴 크라이오/오라이온 CPU (Qualcomm Kryo/Oryon CPU): 순차 제어, 짧은 지연 시간이 중요한 작업, 그리고 NPU나 GPU에서 쉽게 가속되지 않는 AI 모델의 일부를 실행하는 데 최적화되어 있다.2 특히 맞춤형 오라이온 CPU의 도입은 성능과 효율성 면에서 상당한 발전을 의미한다.6

  • 퀄컴 센싱 허브 (Qualcomm Sensing Hub): 초저전력, 상시 작동(always-on) AI 사용 사례를 위한 핵심 구성 요소이다. 음향 장면 인식과 같은 간단한 워크로드를 메인 헥사곤 프로세서에서 오프로드하여 1mA 미만의 전력 소비로 상당한 전력을 절약한다.7

2.1.2 아키텍처의 진화: 융합형 AI 가속기

6세대 AI 엔진(스냅드래곤 888)과 함께 도입된 아키텍처의 중대한 변화는 퀄컴의 설계 철학을 명확히 보여준다. 이전 세대에서는 스칼라, 벡터, 텐서 가속기가 물리적으로 분리되어 있었지만, 6세대부터는 이들을 단일 가속기 내에 물리적으로 통합하는 “융합형(fused)” 설계로 전환했다.7

이 설계의 핵심은 이전 세대보다 16배 더 커진 전용 대용량 공유 메모리를 추가한 것이다. 이로 인해 각 가속기 유닛 간의 데이터 전달 지연 시간이 나노초(nanosecond) 단위로 극적으로 감소했으며, 특정 사용 사례에서는 최대 1000배 더 빠른 핸드오프(hand-off) 시간을 달성했다.7 이러한 구조적 변화는 단순한 성능 향상을 넘어선다. 현대의 트랜스포머(Transformer)와 같은 복잡한 AI 모델은 단일한 행렬 곱셈(텐서 연산)의 연속이 아니다. 정규화(벡터 연산), 활성화 함수, 기타 제어 로직(스칼라 연산) 등 다양한 유형의 연산으로 구성된다. 이러한 연산 간 데이터 이동은 성능과 전력 효율의 주요 병목 현상이 된다. 분리된 가속기 아키텍처에서는 데이터를 물리적으로 떨어진 유닛 간에 이동시키는 데 높은 지연 시간과 전력 소모라는 “세금“을 치러야 한다. 퀄컴의 융합형 아키텍처는 이러한 데이터 이동 비용을 최소화함으로써, 향후 등장할 더 복잡하고 이기종적인 멀티모달(multi-modal) 생성형 AI 모델에 대한 하드웨어적 대비를 마친 것이다.

2.1.3 성능 궤적

퀄컴 AI 엔진의 성능은 초당 조 단위 연산(TOPS, Trillions of Operations Per Second)으로 측정되며, 세대를 거듭하며 기하급수적으로 성장해왔다. 이러한 성장은 퀄컴이 온디바이스 AI 시장에서 리더십을 유지하는 핵심 기반이 된다.

SoC 플랫폼AI 엔진 세대헥사곤 프로세서/NPUCPU 아키텍처공정 노드발표된 AI 성능 (TOPS)출시 연도
스냅드래곤 8886세대헥사곤 780 (융합형 아키텍처)크라이오 6805nm262020
스냅드래곤 8 1세대7세대3세대 헥사곤 프로세서크라이오 (Armv9)4nm- (이전 세대 대비 2배)2021
스냅드래곤 8 3세대-헥사곤 NPU (INT4 지원)크라이오 (Armv9.2)4nm- (이전 세대 대비 98% 향상)2023
스냅드래곤 X 엘리트-헥사곤 NPU오라이온4nm452023
스냅드래곤 8 엘리트 5세대-헥사곤 NPU오라이온3nm- (이전 세대 대비 37% 향상)2025
스냅드래곤 X2 엘리트 익스트림-헥사곤 NPU오라이온3nm802025

표 1: 퀄컴 AI 엔진의 진화. 이 표는 최근 주력 스냅드래곤 SoC에 걸쳐 AI 처리 능력의 핵심 사양과 성능 발전을 비교하여 보여준다. 4

2.2 퀄컴 AI 스택: 다양한 하드웨어 환경의 통합

퀄컴 AI 스택은 퀄컴의 AI 생태계 확장을 위한 가장 중요한 전략적 자산이다. 이는 하드웨어별 복잡성을 추상화하는 통합 소프트웨어 계층을 제공하여, 개발자들이 단일 코드베이스로 사물 인터넷(IoT) 및 모바일에서부터 자동차, 클라우드에 이르는 광범위한 장치를 대상으로 개발할 수 있게 한다.13 이는 “한 번 작성하면 어디서든 실행“이라는 중요한 약속을 이행하는 핵심 요소이다.

2022년 6월 ’퀄컴 AI 스택’의 발표는 단순한 기술적 진화가 아닌, 시장 포지셔닝을 위한 전략적 전환을 의미한다. 이전에도 SNPE, AIMET과 같은 개별 소프트웨어 도구들은 존재했지만 3, ’AI 스택’이라는 통합된 브랜드 아래 이들을 재편성한 것은 중요한 의미를 갖는다. 이는 엔비디아의 CUDA나 애플의 Core ML과 같이 전체론적인 AI 개발 생태계로서 경쟁하기 위한 의도적인 행보이다. 경쟁사들의 성공이 강력한 하드웨어뿐만 아니라 개발자들을 묶어두는 견고한 소프트웨어 생태계에 기반한다는 점을 인식한 퀄컴은, 분산된 도구들을 하나의 강력한 소프트웨어 브랜드로 통합함으로써 개발자, OEM, 그리고 시장 전체에 더 매력적인 플랫폼 수준의 가치 제안을 제시하게 된 것이다.14

2.2.1 스택의 계층 구조

퀄컴 AI 스택은 개발자가 필요에 따라 다양한 수준에서 접근할 수 있도록 여러 계층으로 구성되어 있다.

  • 최상위 계층 (프레임워크 및 애플리케이션): 텐서플로(TensorFlow), 파이토치(PyTorch), ONNX와 같은 대중적인 AI 프레임워크를 지원하여, 개발자들이 독점적인 형식에 얽매이지 않고 기존 모델을 그대로 가져와 사용할 수 있도록 유연성을 제공한다.6

  • 중간 계층 (런타임 및 변환기): 개발자 상호작용의 핵심이 되는 계층이다.

  • 런타임 프레임워크: 개발자에게 고성능의 직접 접근을 위한 퀄컴 AI 엔진 다이렉트(QNN) 경로와 광범위한 확장성을 위한 ONNX 런타임(ORT) 경로 사이에서 선택권을 제공한다.6

  • 프레임워크 변환기: qnn-onnx-converter, qnn-pytorch-converter 등 모델을 원래 프레임워크에서 AI 엔진에 최적화된 형식으로 변환하는 도구 모음이다.17

  • 하위 계층 (AI 엔진 및 하드웨어 추상화): 이 계층은 헥사곤 NPU, 아드레노 GPU, 크라이오/오라이온 CPU와 같은 하드웨어 코어와 직접 상호작용하는 AI 엔진 다이렉트 API 및 백엔드 라이브러리로 구성된다. 지능적인 워크로드 분배가 바로 이 계층에서 이루어진다.6

2.2.2 스택 내 핵심 구성 요소

AI 스택은 개발자가 모델을 효율적으로 배포하고 최적화할 수 있도록 다양한 핵심 도구와 SDK를 포함한다.

  • 퀄컴 AI 엔진 다이렉트 (QNN): 하드웨어 가속기에 대한 직접적인 접근을 제공하는 기초적인 저수준 SDK이다. 성능이 중요한 애플리케이션에 필수적이며, 스냅드래곤 모바일 플랫폼에서 클라우드 AI 100에 이르기까지 모든 퀄컴 제품으로 확장되고 있다.13

  • AI용 퀄컴 신경망 처리 SDK (SNPE): AI 엔진 다이렉트 위에 구축된 레거시 고수준 SDK이다. 하드웨어 세부 정보를 추상화하여 배포를 단순화한다.3

  • AI 모델 효율성 툴킷 (AIMET): 온디바이스 AI를 위한 필수 도구로, Adaround, 양자화 인식 훈련(QAT)과 같은 고급 양자화 기술과 압축 기술을 제공하여 대규모 모델을 전력 제한적인 장치에서 효율적으로 실행할 수 있도록 축소한다.7

  • AI 모델 허브 및 주 (Zoo): 스냅드래곤 플랫폼에 맞게 사전 최적화된 모델 저장소를 제공하여 개발자의 진입 장벽을 낮춘다.6

3. 부: 개발자 여정: 모델에서 배포까지

이 장에서는 퀄컴 플랫폼을 위한 개발 과정을 구체적으로 설명한다. AI 엔지니어가 따르는 실제적인 단계별 워크플로우를 통해, 생태계의 강력함과 잠재적인 마찰 지점을 모두 조명하며 추상적인 기술을 실제적인 과정으로 풀어낸다.

3.1 거래의 도구: QNN, SNPE, 그리고 AIMET

퀄컴은 다양한 개발자 요구에 부응하기 위해 계층화된 도구 세트를 제공하지만, 생태계는 분명히 더 낮은 수준의 고성능 QNN SDK를 중심으로 통합되고 있다. 이러한 도구 간의 관계를 이해하는 것은 하드웨어의 잠재력을 최대한 활용하는 데 핵심적이다.

3.1.1 퀄컴 AI 엔진 다이렉트 (QNN) vs. 신경망 처리 SDK (SNPE): 전략적 분기

플랫폼 설계에는 사용 편의성과 성능 사이의 근본적인 긴장 관계가 존재하며, SNPE에서 QNN으로의 진화는 이러한 트레이드오프를 명확하게 보여준다. SNPE는 초기 생태계 구축에 결정적인 역할을 했지만, 대규모 언어 모델(LLM)과 같은 생성형 AI의 등장은 QNN만이 제공할 수 있는 직접적인 하드웨어 제어를 필요로 하게 되었다. 최신 개발 동향, 특히 LiteRT 모델을 NPU에서 실행하는 것과 같은 고성능 애플리케이션은 명시적으로 ’퀄컴 AI 엔진 다이렉트 델리게이트(QNN)’를 사용한다.21 또한, qnn-profile-viewerqnn-netron과 같은 고급 디버깅 및 분석 도구들이 SNPE가 아닌 QNN SDK의 일부라는 점은 퀄컴의 엔지니어링 초점이 어디에 있는지를 시사한다.22 LLM은 키-값 캐시(Key-Value cache)와 같은 독특한 구조를 가지며, 종종 SNPE와 같은 고수준 API가 쉽게 노출할 수 없는 맞춤형 연산자와 정밀한 메모리 관리를 요구한다. 즉, QNN의 부상은 온디바이스 AI의 복잡성과 성능 요구사항 증가의 직접적인 결과이다. 그러나 모든 개발자에게 저수준 QNN 경로를 강요하는 것은 채택을 늦출 수 있는 위험이 있다. 따라서 퀄컴의 전략적 과제는 QNN 위에 더 나은 추상화 계층(예: 개선된 ORT 또는 TFLite 델리게이트)을 구축하여 두 세계의 장점을 모두 제공하는 것이다.

  • SNPE (추상화 계층): 사용 편의성을 위해 설계된 구형의 고수준 SDK이다. 최적의 하드웨어 코어(CPU, GPU, 또는 DSP/NPU)를 자동으로 선택하고 하드웨어별 세부 사항을 추상화하여, 간단한 배포 경로를 원하는 개발자에게 이상적이다.3

  • QNN (성능 계층): AI 가속기에 대한 직접적이고 세분화된 제어를 제공하는 현대적인 저수준 SDK이다. 성능을 극대화하고 실행을 맞춤화해야 하는 개발자, 특히 헥사곤 텐서 프로세서(HTP)를 활용하는 경우에 필수적이다.13

  • 관계: SNPE는 본질적으로 QNN의 클라이언트이다. SNPE는 모델 실행을 위해 QNN 백엔드 라이브러리를 사용하지만, 개발자에게는 그 복잡성을 숨긴다.13 시장은 개발자들이 QNN을 직접 사용하거나 QNN 델리게이트를 사용하는 ORT와 같은 런타임을 통해 사용하는 방향으로 움직이고 있다.

3.1.2 AIMET: 효율성 엔진

온디바이스 AI는 근본적으로 전력과 메모리에 의해 제약을 받는다. AIMET은 모델 최적화를 통해 이 문제를 해결한다.7

  • 주요 기술: Adaround 및 데이터 없는 양자화(Data-Free Quantization)와 같은 최첨단 학습 후 양자화(PTQ) 기술과 양자화 인식 훈련(QAT)을 제공하여, 정확도 손실을 최소화하면서 모델 크기를 32비트 부동 소수점에서 8비트 정수 등으로 줄인다.7 또한 성능과 정확도의 균형을 맞추기 위한 혼합 정밀도(mixed-precision)와 같은 고급 기능도 지원한다.7

  • 오픈 소스 전략: 퀄컴은 AIMET을 깃허브(Github)에 오픈 소스로 공개함으로써 협업과 광범위한 채택을 장려하고, 독점 도구를 업계 표준 리소스로 전환하고 있다.7

도구 이름추상화 수준주요 사용 사례핵심 기능대상 개발자전략적 역할
AI용 퀄컴 신경망 처리 SDK (SNPE)고수준 (관리형 런타임)신속한 배포, 사용 편의성자동 코어 선택, DLC 형식애플리케이션 개발자생태계 구축 (레거시)
퀄컴 AI 엔진 다이렉트 (QNN)저수준 (직접 하드웨어 접근)최대 성능, 맞춤형 커널세분화된 하드웨어 제어, Op-Package 생성기AI 성능 엔지니어, 시스템 아키텍트성능 리더십 (현재/미래)
AI 모델 효율성 툴킷 (AIMET)최적화 툴킷모델 양자화, 압축PTQ/QAT, AdaroundML 엔지니어, 데이터 과학자온디바이스 실현 가능성 확보

표 2: 퀄컴 AI 개발자 도구 세트 비교. 이 표는 퀄컴의 주요 개발 도구인 SNPE, QNN, AIMET을 대조하여 각각의 추상화 수준, 주요 사용 사례, 대상 개발자 프로필을 명확히 구분한다. 3

3.2 온디바이스 AI 워크플로우

이 섹션은 스냅드래곤 하드웨어에 모델을 배포하는 실질적인 단계별 가이드를 제공한다. 표준 AI 프레임워크 모델에서 시작하여 헥사곤 NPU에서 실행되는 최적화되고 양자화된 바이너리에 이르는 과정을 따라간다.

  • 1단계: 모델 훈련 및 선택: 개발자는 파이토치, 텐서플로, ONNX와 같은 표준 프레임워크에서 모델을 훈련시킨다.19 또는 퀄컴 AI 허브나 AIMET 모델 주에서 사전 최적화된 모델을 선택할 수도 있다.6

  • 2단계: 모델 변환: 훈련된 모델은 퀄컴 전용 형식으로 변환된다. QNN SDK를 사용하여 개발자는 qnn-onnx-converter 또는 qnn-pytorch-converter와 같은 도구를 사용한다.17 이 과정은 네트워크 그래프를 구성하기 위한 API 호출이 포함된 .cpp 파일과 모델 가중치가 포함된 .bin 파일이라는 두 가지 주요 결과물을 생성한다.13

  • 3단계: 양자화 (핵심 최적화): 헥사곤 NPU(HTP)에서 효율적으로 실행하기 위해 32비트 부동 소수점 모델은 일반적으로 INT8 또는 압축된 4비트와 같은 더 낮은 정밀도로 양자화되어야 한다.17 개발자는 이 단계를 위해 QNN SDK의 일부인 qairt-quantizer나 더 포괄적인 AIMET 툴킷을 사용한다.7 이 단계는 NPU의 성능 및 전력 효율 이점을 달성하는 데 매우 중요하다.21

  • 4단계: 모델 준비 및 컴파일: qnn-model-lib-generator 도구는 그래프 정의와 양자화된 가중치를 대상별 런타임 모델 라이브러리로 컴파일한다.13 모델에 지원되지 않는 계층이 포함된 경우, 개발자는 qnn-op-package-generator를 사용하여 맞춤형 연산자를 생성할 수도 있다.7

  • 5단계: 실행 및 프로파일링: 최종 모델은 qnn-net-run과 같은 도구를 사용하여 대상 장치에서 실행되거나, QNN 런타임 API를 사용하여 애플리케이션에 통합된다.17 이후 성능은 벤치마킹되고 분석되어 지연 시간 및 처리량 요구 사항을 충족하는지 확인한다.17

4. 부: 스냅드래곤 생태계의 실제 적용: 시장별 심층 분석

이 장에서는 추상적인 기술에서 구체적인 애플리케이션으로 논의를 전환하여, 퀄컴의 AI 플랫폼이 네 가지 핵심 목표 시장에서 어떻게 배포되고 있는지를 보여준다. 동일한 핵심 기술이 매우 다른 사용 사례에 맞게 어떻게 조정되고 확장되는지를 살펴본다.

시장 분야주요 플랫폼대표적인 AI 기반 기능주요 OEM 및 생태계 파트너
모바일스냅드래곤 8 엘리트 시리즈에이전틱 AI, 온디바이스 LLM삼성, 샤오미
PC스냅드래곤 X 엘리트코파일럿+ PC 경험, 윈도우 스튜디오 이펙트마이크로소프트, HP, 델, 레노버
자동차스냅드래곤 디지털 섀시 (라이드, 콕핏)ADAS/AD (L2+/L3), AI 콕핏BMW, GM, 폭스바겐
XR/IoT스냅드래곤 XR 시리즈 / 스페이시스공간 컴퓨팅, 6DoF 트래킹메타, 구글

표 3: 퀄컴 온디바이스 AI 생태계 개요. 이 표는 퀄컴의 전체 온디바이스 AI 생태계에 대한 고수준의 전략적 개요를 제공하며, 각 목표 시장을 특정 하드웨어 플랫폼, AI 기반 기능 및 주요 산업 파트너와 명확하게 연결한다.

4.1 모바일: 온디바이스 생성형 AI의 선봉

프리미엄 스마트폰 시장은 퀄컴의 아성이자 가장 진보된 온디바이스 AI 기술의 주요 시험장으로 남아있다. 최신 스냅드래곤 8 엘리트 시리즈는 모바일 장치에서 “에이전틱 AI(Agentic AI)” 혁명을 주도하기 위해 명시적으로 설계되었다.10

3nm 공정으로 제작된 스냅드래곤 8 엘리트 5세대는 대폭 업그레이드된 헥사곤 NPU(37% 더 빠르고 16% 더 전력 효율적)와 맞춤형 오라이온 CPU를 특징으로 한다.10 이 하드웨어는 온디바이스 대규모 언어 모델(LLM)과 멀티모달 AI의 기반이 된다. 이를 통해 다음과 같은 새로운 AI 기능이 가능해진다.

  • 에이전틱 AI: 클라우드 의존 없이 최대 128K 토큰에 달하는 방대한 컨텍스트를 처리할 수 있는 복잡한 온디바이스 AI 비서를 실행하여, 새로운 차원의 개인화와 개인 정보 보호를 가능하게 한다.10

  • 생성형 AI: 실시간 온디바이스 이미지 생성(스테이블 디퓨전 등), AI 기반 비디오 지우개와 같은 정교한 비디오 처리, 실시간 언어 번역 등을 지원한다.8

  • 컴퓨테이셔널 포토그래피: 단일 카메라 보케, 장면 감지, 초고해상도와 같은 기능들이 AI 엔진에 의해 가속되어 지속적으로 발전하고 있다.5

스냅드래곤의 성공은 삼성, 샤오미와 같은 선도적인 안드로이드 OEM의 채택과 밀접하게 연결되어 있다. 삼성 갤럭시 S25 울트라(맞춤형 “for Galaxy” 버전 탑재), ASUS ROG Phone 9, 샤오미 17 시리즈와 같은 플래그십 장치들은 모두 스냅드래곤 8 엘리트 플랫폼을 기반으로 구축되어 소비자에게 이러한 AI 기능을 선보인다.11

4.2 PC: 스냅드래곤 X 엘리트로 윈도우를 재정의하다

퀄컴이 스냅드래곤 X 엘리트로 윈도우 PC 시장에 진입한 것은 우수한 AI 성능과 전력 효율성을 바탕으로 x86 독점에 정면으로 도전하는 것이다. 이 플랫폼은 AI를 윈도우 경험의 기본적이고 보편적인 부분으로 만들려는 마이크로소프트의 “코파일럿+(Copilot+)” PC 이니셔티브의 초석이다.28

스냅드래곤 X 엘리트의 핵심 사양은 초당 40~45조 회 이상의 연산이 가능한 헥사곤 NPU이다.12 이는 코파일럿+ PC의 요구 사항이며, CPU/GPU 중심 아키텍처에서는 배터리를 빠르게 소모하거나 성능 저하를 유발할 수 있는 지속적인 AI 워크로드를 가능하게 하는 핵심 차별점이다. 이 NPU는 윈도우에서 다음과 같은 새로운 온디바이스 AI 기능을 가속하도록 설계되었다.

  • 윈도우 스튜디오 이펙트: 웹캠을 위한 실시간 AI 처리 기능으로, 배경 흐림, 자동 프레이밍, 시선 교정 등을 포함하며, 전력 효율을 위해 NPU로 오프로드된다.28

  • 리콜(Recall): 사용자 활동의 검색 가능한 타임라인을 생성하는 AI 기반 기능이다.

  • 라이브 캡션: 장치의 모든 오디오를 실시간으로 번역하고 자막을 생성한다.28

  • 코크리에이터(Cocreator): 그림판과 같은 애플리케이션에 통합된 온디바이스 생성형 이미지 생성 기능이다.28

코파일럿+ PC 출시는 마이크로소프트(서피스), HP(옴니북), 레노버(요가), 삼성(갤럭시북), 델 등 주요 OEM의 광범위한 장치 라인업을 특징으로 하며, 이들 모두 스냅드래곤 X 엘리트 또는 X 플러스 프로세서로 구동된다.29

4.3 자동차: 디지털 섀시로 소프트웨어 정의 차량을 구동하다

퀄컴은 스냅드래곤 디지털 섀시(Snapdragon Digital Chassis)를 차세대 소프트웨어 정의 차량(SDV)의 중추 신경계로 포지셔닝하고 있으며, 인포테인먼트에서 자율 주행에 이르기까지 모든 것을 위한 확장 가능하고 통합된 플랫폼을 제공한다.34

디지털 섀시는 다음과 같은 구성 요소로 이루어져 있다.

  • 스냅드래곤 콕핏 (Snapdragon Cockpit): 차량 내 인포테인먼트(IVI)를 위한 포괄적인 플랫폼으로, 디지털 계기판, 다중 디스플레이 설정, 실내 모니터링, AI 기반 음성 비서를 구동한다.36 최신 “엘리트” 등급 플랫폼은 고급 AI 기반 사용자 경험을 위해 설계되었다.34

  • 스냅드래곤 라이드 (Snapdragon Ride): 첨단 운전자 지원 시스템(ADAS) 및 자율 주행(AD)을 위한 플랫폼이다. 고성능 컴퓨팅, AI, 센서 데이터를 통합하여 L2+ 및 L3 시스템을 지원한다.35

  • 스냅드래곤 라이드 플렉스 (Snapdragon Ride Flex): 콕핏과 라이드 기능을 단일 SoC에 통합하여 자동차 제조업체의 비용, 지연 시간 및 복잡성을 줄이는 새로운 아키텍처이다.35

  • 스냅드래곤 오토 커넥티비티 & 카-투-클라우드 (Snapdragon Auto Connectivity & Car-to-Cloud): OTA 업데이트, 데이터 수집 및 새로운 디지털 서비스에 필요한 5G, Wi-Fi, C-V2X 연결 및 클라우드 서비스를 제공한다.36

퀄컴은 자동차 부문에서 450억 달러에 달하는 상당한 디자인 윈 파이프라인을 확보했으며, BMW(“Neue Klasse” 아키텍처), GM(울트라 크루즈), 르노, 폭스바겐/카리아드(Cariad) 등 주요 자동차 제조업체와 파트너십을 맺고 있다.34

4.4 XR 및 IoT: 공간 컴퓨팅과 지능형 엣지를 위한 기반 구축

퀄컴은 모바일 기술 리더십을 활용하여 확장 현실(XR) 및 사물 인터넷(IoT)이라는 초기 단계이지만 잠재력이 큰 시장에서 지배적인 위치를 확립하고 있다. 전용 XR 플랫폼과 개발자 도구는 공간 컴퓨팅을 위한 기초 생태계를 만드는 것을 목표로 한다.

  • 스냅드래곤 XR 플랫폼: 스냅드래곤 XR1, XR2와 같은 전용 SoC 라인업은 VR, AR, MR 장치의 고유한 요구 사항을 위해 특별히 설계되었다. 6DoF(6자유도) 추적, 포비티드 렌더링(foveated rendering), 패스스루 비디오와 같은 작업을 위한 고성능, 저지연 처리를 제공한다.39

  • 스냅드래곤 스페이시스 XR 개발자 플랫폼 (Snapdragon Spaces XR Developer Platform): OpenXR 표준을 기반으로 하는 SDK를 포함한 포괄적인 하드웨어 및 소프트웨어 플랫폼으로, 기업 및 소비자용 XR 애플리케이션 제작을 가속화하도록 설계되었다.42 개발자에게 손 추적, 공간 매핑 및 기타 핵심 XR 기능을 위한 도구를 제공한다.

  • IoT 및 임베디드 시스템: 스냅드래곤 포트폴리오는 스마트 홈 허브에서 산업용 로봇에 이르기까지 다양한 임베디드 애플리케이션에 맞춰진 광범위한 SoC를 포함하며, 이들 모두 핵심 아키텍처의 확장 가능한 AI 기능의 이점을 누린다.9

5. 부: 전략적 분석 및 미래 전망

이 마지막 장에서는 기술 및 제품 분석에서 한 단계 나아가, 퀄컴의 경쟁적 위치를 평가하고, 중요한 과제를 식별하며, 미래 궤적을 예측하는 고수준의 전략적 평가를 제공한다.

5.1 경쟁 구도: 다각적 전선에서의 전투

퀄컴은 엣지에서의 AI 지배력을 확보하기 위해 복잡하고 다각적인 전쟁을 치르고 있다. 안드로이드/윈도우 생태계를 위한 수평적 플랫폼을 제공하는 퀄컴의 전략은 수직 통합된 플레이어와 전문화된 경쟁자들의 도전에 직면해 있다.

  • 애플 (수직 통합): 통합된 뉴럴 엔진(Neural Engine)을 갖춘 애플의 A-시리즈 및 M-시리즈 칩은 모바일, 그리고 점차 PC 시장에서 주요 경쟁자이다. 애플은 하드웨어(A19 Pro 등), 소프트웨어(iOS/macOS), 개발자 도구(Core ML)를 모두 통제함으로써, 애플 인텔리전스(Apple Intelligence)와 같은 기능에서 심층적인 최적화와 원활한 사용자 경험을 제공한다.44 이는 안드로이드/윈도우 생태계가 따라잡기 어려운 높은 기준을 제시한다.

  • 구글 (수직 통합 지향): 픽셀(Pixel) 폰에 탑재된 구글의 맞춤형 텐서(Tensor) SoC는 안드로이드 생태계 내에서 애플 스타일의 수직 통합을 향한 움직임을 보여준다. 외부 파운드리에 의존하지만, 텐서 칩의 맞춤형 설계, 특히 온칩 TPU는 구글 자체 AI 모델(제미니 나노 등)에 맞춰져 독특한 기능을 가능하게 한다.47

  • 엔비디아 (특화된 거대 기업): 엔비디아는 자동차 및 고급 IoT/로보틱스 시장에서 상당한 위협이 된다. 엔비디아의 드라이브(DRIVE) 플랫폼은 스냅드래곤 라이드의 강력한 경쟁자이며, 젯슨(Jetson) 플랫폼은 로보틱스 및 산업용 애플리케이션의 엣지 AI 분야에서 확고한 선두 주자이다. 엔비디아의 지배력은 강력한 GPU와 성숙한 CUDA 소프트웨어 생태계를 기반으로 한다.50

5.2 도전 과제와 역풍: 추론을 넘어서

강력한 입지에도 불구하고, 퀄컴의 온디바이스 AI 생태계는 미래 성장을 저해할 수 있는 중대한 기술적 및 시장적 과제에 직면해 있다. 주요 장애물은 온디바이스 학습의 엄청난 어려움과 AI 기반 하드웨어에 대한 소비자 수요를 촉발할 매력적인 애플리케이션 생태계의 필요성이다.

  • 온디바이스 학습의 장벽: 현재 온디바이스 AI는 거의 전적으로 사전 훈련된 모델을 실행하는 추론에 초점을 맞추고 있다. 진정한 개인화를 가능하게 하면서 개인 정보를 보호할 수 있는 온디바이스 학습 또는 지속적인 훈련이 궁극적인 목표이다.53 이는 소수샷 학습(few-shot learning)과 같은 새로운 알고리즘, 최적화된 역전파(back-propagation) 기술, 효율적인 연합 학습(federated learning) 프레임워크를 요구하는 거대한 계산적 과제이다. 퀄컴 AI 연구소는 이러한 문제들을 적극적으로 연구하고 있지만, 아직 해결해야 할 부분이 많다.53

  • “킬러 앱” 문제: 온디바이스 생성형 AI의 상업적 성공은 소비자에게 시간 또는 비용 절감이라는 명확한 투자 수익을 제공하는 “킬러 애플리케이션“의 개발에 달려 있다.24 45 TOPS NPU와 같은 강력한 하드웨어를 갖추는 것만으로는 장치 업그레이드를 유도하기에 충분하지 않다. 소프트웨어 생태계는 클라우드나 구형 하드웨어에서는 복제할 수 없는, AI 네이티브의 매력적인 경험을 제공해야 한다. 이것이 코파일럿+ PC 이니셔티브와 차세대 스마트폰의 중심 과제이다.24

  • 기술적 및 경제적 제약:

  • 전력 및 발열: 온디바이스 모델이 커짐에 따라, 스마트폰이나 노트북과 같은 제한된 폼팩터에서 전력 소비와 발열을 관리하는 것이 주요 엔지니어링 과제가 된다.54

  • 메모리 부담: 대규모 AI 모델은 상당한 양의 RAM을 필요로 하며, 이는 장치 비용과 전력 소비를 증가시킨다.24

  • 개발자 복잡성: 2부에서 언급했듯이, QNN과 같은 저수준 도구로의 전환은 개발자의 부담을 가중시켜, 신중하게 관리되지 않으면 생태계 성장을 늦출 수 있다.56

5.3 앞으로의 길: AI, 연결성, 컴퓨팅의 융합

스냅드래곤 서밋과 같은 행사에서 발표된 퀄컴의 장기 비전은 고급 AI 처리, 차세대 연결성(6G), 전력 효율적인 컴퓨팅이라는 세 가지 핵심 역량의 완벽한 통합이다.

  • AI + 6G: 미래 로드맵은 분산 AI를 향상시키기 위해 6G를 활용하는 것을 포함한다. 2028년까지 상용화 전 6G 장치가 계획되어 있다. 이는 초저지연 6G 연결을 통해 장치가 온디바이스 처리와 엣지 클라우드 간에 워크로드를 지능적으로 분할할 수 있는 하이브리드 AI 아키텍처를 가능하게 할 것이다.57

  • 보편적인 AI 비전: 궁극적인 목표는 스마트폰, PC, 자동차, 웨어러블, IoT 센서 등 모든 엣지 장치가 스냅드래곤으로 구동되고 원활하게 연결되는, 보편적으로 지능적인 세상이다. 이 비전은 퀄컴을 단순한 칩 공급업체가 아니라, 연결된 지능형 엣지(connected intelligent edge)의 설계자로 자리매김하게 한다.57

6. 결론 및 전략적 과제

퀄컴은 업계에서 가장 포괄적인 수평적 플랫폼이라 할 수 있는 강력한 온디바이스 AI 생태계를 성공적으로 구축했다. 핵심 강점은 하드웨어의 와트당 성능과 소프트웨어 스택의 광범위함에 있다.

그러나 퀄컴의 성공은 다음과 같은 세 가지 전략적 과제를 해결하는 데 달려 있다.

  1. 개발자 경험 단순화: 더 나은 도구, 문서, 고수준 추상화를 통해 QNN의 강력함과 주류 개발자가 요구하는 사용 편의성 사이의 간극을 메워야 한다.

  2. “킬러 앱” 개발 촉진: 마이크로소프트(코파일럿+), 구글(안드로이드)과 같은 소프트웨어 파트너와 적극적으로 협력하여, 최신 하드웨어에서만 실행 가능한 매력적인 AI 네이티브 애플리케이션의 등장을 보장해야 한다.

  3. 자동차 및 PC 시장 교두보 확보: 자동차 분야의 강력한 디자인 파이프라인을 성공적으로 전환하고 PC 시장에서 지속 가능한 발판을 마련하는 것은, 모바일을 넘어 다각화하고 차세대 R&D 자금을 확보하는 데 매우 중요하다.

도전 과제는 상당하지만, 하드웨어와 소프트웨어의 깊은 통합, 그리고 방대한 파트너 생태계는 퀄컴을 온디바이스 AI 시대의 중심적이고 지속적인 플레이어로 자리매김하게 한다.

7. 참고 자료

  1. Qualcomm Hybrid-AI-Architecture: Efficient and Flexible AI Processing - DataKnobs, https://www.dataknobs.com/generativeai/8-tpu-gpu/hybrid-ai-architecture/
  2. What is an NPU, and Why is It Key to Unlocking On-device …, https://www.edge-ai-vision.com/2024/03/what-is-an-npu-and-why-is-it-key-to-unlocking-on-device-generative-ai/
  3. Qualcomm Artificial Intelligence Engine Powers AI … - Qualcomm, https://investor.qualcomm.com/news-events/press-releases/news-details/2018/Qualcomm-Artificial-Intelligence-Engine-Powers-AI-Capabilities-of-Snapdragon-Mobile-Platform-02-21-2018/default.aspx
  4. Qualcomm Hexagon - Wikipedia, https://en.wikipedia.org/wiki/Qualcomm_Hexagon
  5. Artificial Intelligence Engine in Qualcomm Snapdragon 855 Mobile Platform Powers On-Device AI User Experiences in Flagship Premium-Tier Smartphones - Edge AI and Vision Alliance, https://www.edge-ai-vision.com/2019/02/artificial-intelligence-engine-in-qualcomm-snapdragon-855-mobile-platform-powers-on-device-ai-user-experiences-in-flagship-premium-tier-smartphones/
  6. Qualcomm ® AI Stack, https://docs.qualcomm.com/bundle/publicresource/topics/80-62010-1/ai-overview.html?product=1601111740057789
  7. Exploring the AI capabilities of the Snapdragon 888 Mobile Platform - Qualcomm, https://www.qualcomm.com/media/documents/files/snapdragon-888-ai-blog-post-by-jeff-gehlhaar-vp-of-technology-hsin-i-hsu-senior-product-manager.pdf
  8. Qualcomm adds more AI to latest Snapdragon chip - Mobile World Live, https://www.mobileworldlive.com/qualcomm/qualcomm-adds-more-ai-to-latest-snapdragon-chip/
  9. Qualcomm Technologies AI Software - Cambrian AI Research, https://cambrian-ai.com/wp-content/uploads/edd/2021/09/QTI-Software-For-AI-FINAL.pdf
  10. Qualcomm Unleashes Next-Gen Snapdragon Processors …, https://markets.financialcontent.com/wral/article/tokenring-2025-10-2-qualcomm-unleashes-next-gen-snapdragon-processors-redefining-mobile-ai-and-connectivity
  11. Qualcomm Snapdragon 8 Elite Gen 5: Everything you need to know - Android Central, https://www.androidcentral.com/phones/qualcomm/qualcomm-snapdragon-8-elite-gen-5
  12. Microsoft Surface Laptop Copilot+ PC 15“ PixelSense 2496 x 1664 …, https://www.costco.com/microsoft-surface-laptop-copilot%2B-pc-15%22-pixelsense-2496-x-1664-touchscreen—qualcomm-snapdragon-x-elite-12-core-processor—windows-11—graphite.product.4000274842.html
  13. Windows on Snapdragon Brings Hybrid AI to Apps at the Edge - KDnuggets, https://www.kdnuggets.com/qualcomm-windows-on-snapdragon-brings-hybrid-ai-to-apps-at-the-edge
  14. QUALCOMM LAUNCHES NEW AI STACK - Cambrian AI Research, https://cambrian-ai.com/wp-content/uploads/edd/2022/06/Qualcomm-AI-Stack-Final.pdf
  15. Qualcomm Wants to Put AI Everywhere with New Software Stack - Electronic Design, https://www.electronicdesign.com/technologies/embedded/article/21245209/electronic-design-qualcomm-wants-to-put-ai-everwhere-with-new-software-stack
  16. Qualcomm AI Stack: New gateway to create, optimize and deploy best-performing Edge AI applications, https://www.qualcomm.com/news/onq/2022/06/Qualcomm_unveils_Qualcomm_AI_Stack
  17. Overview - Qualcomm AI Engine Direct SDK, https://docs.qualcomm.com/bundle/publicresource/topics/80-63442-50/overview.html
  18. Documentation - Qualcomm AI Engine Direct SDK, https://docs.qualcomm.com/bundle/publicresource/topics/80-63442-50/introduction.html
  19. Qualcomm Neural Processing SDK, https://docs.qualcomm.com/bundle/publicresource/topics/80-63442-2
  20. What are the differences between the AI engine direct SDK, the neural processing sdk and the hexagon npu sdk? - Qualcomm Support, https://mysupport.qualcomm.com/supportforums/s/question/0D5dK000002smEmSAI/what-are-the-differences-between-the-ai-engine-direct-sdk-the-neural-processing-sdk-and-the-hexagon-npu-sdk
  21. Utilizing Qualcomm NPUs for Mobile AI Development with LiteRT | Google AI Edge, https://ai.google.dev/edge/litert/android/npu/qualcomm
  22. Tutorial: Utilizing Deep Learning Containers (DLCs) in Qualcomm® AI Engine Direct, https://docs.qualcomm.com/bundle/publicresource/topics/80-63442-50/tutorial5.html
  23. Qualcomm Neural Processing SDK | Qualcomm Developer, https://www.qualcomm.com/developer/software/neural-processing-sdk-for-ai
  24. ASSESSING THE ON-DEVICE ARTIFICIAL INTELLIGENCE (AI) OPPORTUNITY FOR ENTERPRISES AND CONSUMERS - Qualcomm, https://www.qualcomm.com/content/dam/qcomm-martech/dm-assets/documents/assessing-the-on-device-ai-opportunity.pdf
  25. Snapdragon X2 Elite Extreme Benchmarks Paint A Powerful Picture Of AI PCs To Come, https://hothardware.com/news/snapdragon-x2-elite-extreme-benchmarks
  26. Trending Snapdragon Phone 2025: Top Picks for Performance & Gaming - Accio, https://www.accio.com/business/trending-snapdragon-phone
  27. The Best Android Phones We’ve Tested for 2025 - PCMag, https://www.pcmag.com/picks/the-best-android-phones
  28. What is the point of the NPU in the snapdragon chips? : r/Surface - Reddit, https://www.reddit.com/r/Surface/comments/1dojw6v/what_is_the_point_of_the_npu_in_the_snapdragon/
  29. Microsoft Copilot PCs | HP® Official Site, https://www.hp.com/us-en/software/microsoft-copilot-pcs.html
  30. Shop Copilot+ PCs: Windows AI PCs and Laptop Devices - Microsoft, https://www.microsoft.com/en-us/windows/copilot-plus-pcs
  31. 13-inch Surface Pro for Business, Copilot+ PC (Snapdragon) - Microsoft Store, https://www.microsoft.com/en-us/d/surface-pro-for-business-copilot-pc-13-inch-snapdragon/8nl1w61jw8zm
  32. Copilot+ PC | B&H Photo Video, https://www.bhphotovideo.com/c/buy/copilot-pc/ci/58509
  33. Learn About Copilot+ PCs - Best Buy, https://www.bestbuy.com/site/windows/learn-about-copilot-in-windows/pcmcat1708112732293.c?id=pcmcat1708112732293
  34. Qualcomm: SDV is “redefining” modern vehicles - Automotive World, https://www.automotiveworld.com/articles/qualcomm-sdv-is-redefining-modern-vehicles/
  35. Chipping in: Qualcomm automotive technology expands into auto value chain - S&P Global, https://www.spglobal.com/automotive-insights/en/blogs/2025/06/qualcomm-automotive-technology-automotive-value-chain
  36. Snapdragon Ride: A foundational platform for … - Qualcomm, https://www.qualcomm.com/content/dam/qcomm-martech/dm-assets/documents/Snapdragon-Ride-GLOBAL-whitepaper.pdf
  37. Snapdragon Digital Chassis: Qualcomm Automotive Technology Toolset - YouTube, https://www.youtube.com/watch?v=wiTUeYfqz0w
  38. Qualcomm adds to Snapdragon Digital Chassis momentum with new OEM applications, https://futurride.com/2025/01/06/qualcomm-adds-to-snapdragon-digital-chassis-momentum-with-new-oem-applications/
  39. XR - ThunderSoft, https://en.thundersoft.com/xr/
  40. Qualcomm Snapdragon XR1 Platform | AR & VR processor & reference design, https://www.qualcomm.com/products/mobile/snapdragon/xr-vr-ar/snapdragon-xr1-platform
  41. Snapdragon XR platforms define a new level of immersive realism - YouTube, https://www.youtube.com/playlist?list=PLjVC3ZSB1kOnmbqJIKM21ac0Txm9XJOwo
  42. Snapdragon Spaces XR Developer Platform | Snapdragon Spaces, https://spaces.qualcomm.com/
  43. List of Qualcomm Snapdragon systems on chips - Wikipedia, https://en.wikipedia.org/wiki/List_of_Qualcomm_Snapdragon_systems_on_chips
  44. Apple’s A19 and upcoming M5 chips - Jon Peddie Research, https://www.jonpeddie.com/news/apples-a19-and-upcoming-m5-chips/
  45. Neural Engine - Wikipedia, https://en.wikipedia.org/wiki/Neural_Engine
  46. Apple Intelligence, https://www.apple.com/apple-intelligence/
  47. Google Tensor - Wikipedia, https://en.wikipedia.org/wiki/Google_Tensor
  48. How Google Tensor Helps Google Pixel Phones Do More, https://store.google.com/intl/en/ideas/articles/google-tensor-pixel-smartphone/
  49. Sign up for experimental access to Google Tensor ML SDK, https://ai.google.dev/edge/litert/next/tensor_ml_sdk
  50. AI & Accelerated Computing Solutions for Automotive Industries - NVIDIA, https://www.nvidia.com/en-us/industries/automotive/
  51. Edge Computing Solutions For Enterprise - NVIDIA, https://www.nvidia.com/en-us/edge-computing/
  52. High-Performance In-Vehicle Computing for Autonomous Vehicles - NVIDIA, https://www.nvidia.com/en-us/solutions/autonomous-vehicles/in-vehicle-computing/
  53. Qualcomm Research Examines On-Device AI Learning - Cambrian …, https://cambrian-ai.com/qualcomm-research-examines-on-device-ai-learning/
  54. Unlocking on-device generative AI with an NPU and heterogeneous computing | Qualcomm, https://www.qualcomm.com/content/dam/qcomm-martech/dm-assets/documents/Unlocking-on-device-generative-AI-with-an-NPU-and-heterogeneous-computing.pdf
  55. Mobile Chip Challenges In The AI Era - Semiconductor Engineering, https://semiengineering.com/mobile-chip-challenges-in-the-ai-era/
  56. [Mobile] Dynamic Shape Challenge: Enabling LLM on QNN-HTP · Issue #23832 - GitHub, https://github.com/microsoft/onnxruntime/issues/23832
  57. Qualcomm’s 2025 Snapdragon Summit: AI Innovations, 6G Plans …, https://www.webpronews.com/qualcomms-2025-snapdragon-summit-ai-innovations-6g-plans-and-growth/